Vào năm 1930, loài chó này cơ bản là được nhân giống với giống chó hoang Isarel và giống chó chăn cừu cổ. Trong lịch sử, chúng được sử dụng để lùa trâu bò và cừu. Giống chó Canaan được phân vào một loại trong những nhóm chó chăn gia súc. Giống chó này được đặt tên là Chó Canaan, theo vùng đất Canaan của Isarel.

Trong suốt Thế chiến thứ 2, loài chó này hầu như được sử dụng trong công việc tuần tra và lần đầu tiên được huấn luyện trong công việc dò bom mìn một cách hiệu quả. Thậm chí người ta đã dùng loài này như một kẻ đưa thư, dò mìn, tìm dấu vết, săn thú và chăn gia súc bởi vì chúng có khả năng tốt để đánh hơi, lắng nghe và học tập. Vào năm 1965, chó Canaan lần đầu tiên được nhập khẩu vào Hoa Kỳ bởi một nhà nhân giống tên là Tiến sĩ Rudolphina Menzel.